【学者新论】张权：技术信任的崛起及其信任基础的巩固

技术信任的崛起及其信任基础的巩固

信任是指个体对于置信对象的行为符合自身期待的主观判断。判断乐观则信任，判断悲观则不信任。所谓“人无信不立，业无信不兴，国无信则衰”，自古至今皆认可的是：若得益于个体信任的普遍积累，人类社会将持续迈向繁荣与稳定；若受困于个体信任的普遍流失，人类社会将逐渐堕入衰败与混乱。现如今，在技术、社会、信任三者之间的相互作用下，社会信任的基本模式已悄然发生了由人际信任、制度信任向技术信任的转变。及时关注且正确认识该现象，同时采取相应措施，将成为实现“两个一百年”奋斗目标，推进国家治理体系和治理能力现代化的关键。

技术、社会、信任之间的相互作用

人类社会正处于大变革时代。何谓大变革？习近平总书记说，从社会发展史看，人类经历了农业革命、工业革命，正在经历信息革命。

在人类社会发展的新历史阶段，信息技术与社会正在发生相互建构：一方面，制度、文化、习俗等社会规范通过规制与引导信息技术的开发者和使用者，左右了信息技术的发展方向和应用方式。另一方面，以信息科技为基础、以网络技术为核心的新技术范式通过重塑社会的物质基础，对当代社会的经济、政治、文化和全部社会生活以及相应的制度均产生了深刻而重大的影响，导致了社会结构的变迁。

而社会与信任是相辅相成的关系：一方面，社会运行有赖于信任“驱动”。根据卢曼（2005）的观点，信任是社会复杂性的简化机制。其中社会复杂性所造成的主要问题就是社会个体对于其行动后果的不确定，进而令个体陷入“无所适从”的选择困境，这会阻碍社会互动的发生。而个体通过信任（或不信任）投入社会生活，则可以简化这种社会复杂性，驱动社会互动持续进行。另一方面，社会形态决定信任的基础。在人类社会的现代化进程中，随着个体社会交往方式转变、范围扩大和程度加深，不仅对置信的需求在增加，信任的基础也在变化： 在农业社会，个人依附于土地，“生于斯，长于斯，死于斯”，缺乏现代意义的社会流动。在有限的活动范围内构成了一种熟人社会环境，社会信任主要建立在人与人之间的关系之上，其重要基础是个人的经验与理性计算。在工业社会，生产力与生产关系发生深刻变化，个人活动脱离任何既定的地域空间，陌生人之间必要且频繁的社会交往打破了熟人环境，社会信任主要建立在人与人之间的契约之上，其重要基础是政府的制度供给与执行。

技术建构下新的社会复杂性涌现

在信息社会，即被信息技术重构的社会，出现了“不在场”与“不可识别”的个体行动，社会复杂性表现出新的特征，根植于前信息社会的信任基础在一定程度上被瓦解：

1.经验失灵：数字鸿沟导致知识不对称。亚太经合组织（OECD） 将数字鸿沟（the digital divide） 定义为，不同社会经济水平的个人、家庭、企业和地区获取信息通讯技术和利用互联网进行各种不同活动的机会和差距。根据最新统计数据，全球互联网普及率为56.1%， 这意味着接近45%的人尚未接入互联网。而对于已经接入互联网的人而言，还面临对于数字技术与设备的应用鸿沟，例如一部分人已经将人工智能技术熟练运用于股票投资， 而另一部分人对智能设备的使用还仅限于浏览门户网站。由数字鸿沟导致的知识不对称广泛存在，令普通公众的个人经验与理性计算远不足以应付信息社会的复杂性及其风险，甚至根本意识不到“技术作恶”的存在。所以也就出现了在算法政治的操纵下，选民被精准地推送符合其自身偏好的信息，彻底沦为“乌合之众”的情况，例如2016年美国大选，又如英国脱欧公投。

2.制度缺失：技术化社会治理陷入异步性困境。异步性困境指的是技术创新和应用的迭代速度不断加快，约束技术创新和应用的规则迭代相对迟缓，形成了技术发展与治理发展之间的速度差异，进而导致了技术化社会治理失灵（邱泽奇，2018）。物联网、云计算、大数据、人工智能……在媒体大肆宣传下，社会各界对于这些前沿技术（的名称）或许已经耳熟能详。但是与这些前沿技术（的应用）相关的诸多基本问题，却要么尚未形成清晰认识，要么难以达成共识，例如围绕大数据究竟属于个人隐私的范畴（个人信息资料权），还是属于数据库创建者的作品（著作权），抑或是企业资产的重要组成部分（财产权），陷入旷日持久的争论。“后知后觉”导致政府制度供给不完善或制度执行乏力（周汉华，2015）。所以在制度缺位的“真空期”，技术精英可以在资本裹挟下于灰色地带“兴风作浪”，如未经允许抓取上亿份简历数据的巧达科技；普通公众却只能一边被肆意消费一边“望洋兴叹”，如上亿份简历数据的所有者。

“解铃还需系铃人”：技术信任的崛起

那么面对社会形态正在发生“质变”的情况，什么才是相对稳定的置信“着力点”，可以满足个体“置信”的内在需求，为社会信任提供新的基础？

技术自身的发展与进步似乎成为答案。

英特尔公司（Intel）创始人之一戈登·摩尔于1965年提出了以自己名字命名的著名理论，即摩尔定律。他指出，集成电路上可以容纳的元器件的数量每隔18至24个月就会增加一倍。“摩尔定律”随后被认为同样揭示了信息科技恒定发展的规律。

这意味着技术虽然是变化的， 但技术进步是不变的。进而，人们对技术虽充满疑虑，但是可以对技术进步充满信心：

技术遗留的漏洞自有技术迭代去填补，例如软件“补丁”对软件“Bug”的修复，新版本程序对旧版本程序的替换；

技术引发的威胁自有技术专家去化解，例如工程师们不断开发新的杀毒软件、构筑“防火墙”，以防御“不期而至”的病毒程序与黑客攻击；

技术制造的困境自有技术创新去突破，例如区块链技术作为一种计算范式的颠覆式创新，利用加密链式区块结构来验证和存储数据，为保障信息不被篡改和删除提供了解决方案（袁勇，王飞跃，2016）；

……

以技术发展与技术进步为基础置予信任，然后得到正反馈；再次置予信任，再次得到正反馈——相似过程循环往复，不断强化“需求—基础—效果”的置信链条。一旦诸如“目前虽然存在问题，但未来一定会被解决” 的观念普遍存在，信息社会中技术信任的基本模式便得以确立。与此同时，技术信任对人际信任和制度信任的重要补充，甚至部分替代亦得以实现。

以制度与人的发展支撑技术信任的可持续

需要说明的是，科技的恒定发展并非消除个体行动后果的不确定性、令社会互动“高枕无忧”的充分条件，其过程与结果所蕴藏的潜在风险仍值得警惕：

1.技术竞争陷入“道高魔高” 的循环。信息技术纵深发展的关键在于创新，而创新的必要前提是广泛且充分的竞争。过程中因为追名逐利、纯粹好奇、甚至某种高尚的动机，都有可能造就“科技狂人”（何怀宏，2018）。意图“闯关”而采取疯狂的行为，其背后“黑天鹅”与“灰犀牛”蠢蠢欲动，可能会导致背离初衷且不可逆的灾难性后果。例如以霍金、马斯克等为代表的科学家和企业家不断发出警告，应该对人工智能的开发加以规制，慎防“奇点” （singularity）到来。

2. “ 算法黑箱” 挑战决策正当性。“算法黑箱”（algorithms opacity）是指由于机器学习算法的特征以及有效运用算法所需尺度而产生的不透明性。随着人工智能技术的广泛应用，意味着人类可能要将更多的决策权力与理论上客观却“不可名状”的算法分享。例如美国NorthPointe公司开发的犯罪风险评估算法，计算得出黑人再犯罪率更高的结论却没有给出任何因果解释，是否以此作为法院判罚依据，显然要面对工具理性与价值理性的冲突。

追求解决认识论层面的不确定性（对技术的无知），却可能导致本体论层面的不确定性（技术发展过程与结果的不可知）——这构成了技术信任的悖论。

因此，如哈贝马斯（1999）指出：“技术（向人类提出的）挑战是不可能仅仅用技术来对付的。” 还应该诉诸人之所以为人的本质属性——基于伦理、道德、责任等打造预防机制，从更深层次上控制技术发展可能带来的风险。归根结底，在技术信任时代，夯实信任的基础有赖于人和制度的发展。

基于此，具体提出以下五条建议：

1.伦理道德。保持科技研发与道德教化步调协调。重视对科技从业者，尤其是技术精英进行伦理与道德方面的教育，强化自觉自律意识，毕竟技术善恶的本质是人类行动的善恶。通过强有力的内在约束，避免在信息技术领域发生类似“基因编辑婴儿”的事件。

2.公开。完善知识产权保护体制，鼓励技术公开。对科研工作采取呵护的态度和制衡的策略——唯有消除担心剽窃的“后顾之忧”， 才能促使科研人员及时、主动发布成果，进而形成相互监督与制衡， 即利用大多数人的科学精神和专业素质对个别科研项目的潜在风险发出预警并施以压力。

3. 公共意识。提升普通公众的信息化素养。类似于技术“扫盲”，目的不是将人人都培养成为专家，而是令更多人意识到技术作恶、算法偏见的存在并了解其基本原理，理性置信。此外，技术素养与觉醒的公共意识相结合，意味着社会监督网络的完善，可以有效压缩类似大数据“杀熟”等技术失信行为的生存空间。

4.自由意志。科学的内核是一种自由精神，科学研究却不免受到世俗权力的羁绊。应完善相关的制度和法律，支持并且鼓励政治权力、资本等对科研活动的激励和引导，但是限制甚至惩处其对科研活动的胁迫和左右。在一定程度上为科研人员保留人格独立和精神自由，令科学研究回归纯粹与客观。

5.责任。推进国际共识形成， 构建全球治理合作框架。信息化与全球化进程是不可分割的，信息技术发展的成果既可以由全人类共享，恶果亦不免由全人类共食。应基于“人类命运共同体”的价值观应对信息技术发展的潜在挑战， 增强责任意识，形成协商机制， 建立类似防止核武器扩散、应对全球气候变化等的全球治理合作框架。

作者单位：北京大学马克思主义学院助理教授

文章来源：《中国发展观察》2020年第z2期

排版 | 陈艺文

审核 | 陈培永 原磊

学者新论

北京大学马克思主义学院

官方微信平台